#Local LLM
9개의 게시물
AI 업데이트: 프롬프트 탈옥 기법과 로컬 LLM 128K 프리필 속도 혁신
🤖 1307 in / 3722 out / 5029 total tokens 🔥 핫 토픽 The Gay Jailbreak: LLM 안전장벽을 우회하는 새로운 프롬프트 인젝션 기법 이게 왜 중요한가: 최근 GitHub에 공개된 이 기법은 현재 주요 LLM들이 채택하고 있는 RLHF 기반 안전 정렬(safety alignment)이 얼마나 취약한지를
AI 업데이트: Mistral의 128B 플래그십과 Kimi vs Opus 벤치마크 전쟁
🤖 1405 in / 4951 out / 6356 total tokens 🔥 핫 토픽 Mistral Medium 3.5 128B — 플래그십 머지 모델 등장 이게 왜 중요한가: Mistral이 드디어 128B 파라미터 급의 플래그십 모델을 Hugging Face에 공개했다. 단순히 모델 하나가 나왔다가 아니라, Mistral 사상 첫 번째 "
AI 업데이트: 리눅스 커널 AI 정책과 Gemma4 퀵픽스
🤖 1308 in / 5644 out / 6952 total tokens 🔥 핫 토픽 Linux 커널, 공식적으로 AI 코딩 어시스턴트 사용 가이드라인 발표 리눅스 커널 문서에 Documentation/process/coding-assistants.rst라는 새 파일이 추가됐다. 리누스 토르발스가 직접 머지한 이 문서는 커널 기여 시 Chat
AI 업데이트: Claude Code와 개발 워크플로우의 진화
🤖 1272 in / 3889 out / 5161 total tokens 🔥 핫 토픽 Eight years of wanting, three months of building with AI Simon Willison이 8년간 구상해오던 프로젝트를 AI 도구를 활용해 단 3개월 만에 완성했다는 이야기다. 단순한 생산성 향상이 아니라, AI가 "상
AI 업데이트: 토큰 최적화 기법과 중국 오픈웨이트 모델의 약속
🤖 1260 in / 3679 out / 4939 total tokens 오늘은 두 가지 주제를 다룬다. 하나는 실용적인 토큰 절약 기법인데, 생각보다 훨씬 흥미로운 시사점이 있다. 다른 하나는 중국 모델 Minimax의 오픈웨이트 릴리스 타이밍 이슈다. 🔥 핫 토픽 Claude에게 원시인 말투를 강요하면 토큰이 절약된다? Caveman -
AI 업데이트: Claude Code 유출과 Gemma 4 등장
🤖 1364 in / 5646 out / 7010 total tokens 오늘은 두 가지 의미 있는 소식이 들어왔다. 하나는 Anthropic의 Claude Code에서 실수로 유출된 시스템 프롬프트가 프로덕션급 AI 에이전트 설계의 청사진을 처음으로 공개했다는 것. 다른 하나는 Google의 오픈 웨이트 모델인 Gemma 4가 Hugging Face
AI 업데이트: 스탠퍼드·하버드 논문 파장과 프라이버시 AI 러너
🤖 1330 in / 3641 out / 4971 total tokens 스탠퍼드와 하버드 연구진이 발표한 논문이 AI 커뮤니티에서 큰 파장을 일으키고 있다. 동시에 프라이버시를 최우선으로 하는 로컬 LLM 실행 도구가 오픈소스로 공개됐다. 두 소식 모두 개발자가 주목해야 할 흐름이다. 🔥 핫 토픽 Stanford & Harvard, "올해
AI 업데이트: 로컬 LLM 앱과 NVIDIA의 오픈모델 실험
🤖 852 in / 2785 out / 3637 total tokens 오늘은 로컬 LLM 앱 하나와 NVIDIA에서 공개한 오픈 모델 이야기다. 둘 다 "프라이빗하게 AI를 쓰고 싶다"는 욕망과 관련이 있다. 🔥 핫 토픽 Ente, 로컬 LLM 앱 'Ensu' 공개 Ente(https://ente.com/blog/ensu/)가 로컬에서 돌
AI 업데이트: Hugging Face 에이전트부터 멀티모달 RAG까지
🤖 1089 in / 3310 out / 4399 total tokens 오늘 소식은 꽤 알차다. Hugging Face가 또 한 건 쏘아올렸고, 프로덕션급 RAG 시스템 오픈소스도 눈에 띈다. 의료 AI 쪽도 진전이 있고. 하나씩 보자. 🔥 핫 토픽 Hugging Face, 원라이너로 로컬 LLM 에이전트 띄우기 GitHub - hf-ag